iT邦幫忙

ai egnineering相關文章
共有 2 則文章
鐵人賽 AI Engineering DAY 8

技術 [Day 25]:Guardian LLM 到底是什麼?為什麼不用一般 LLM 判 Safe / Unsafe 就好?

拿一般的大型語言模型(LLM),加上一段「請判斷這段文字是否安全,只回答 Safe 或 Unsafe」的提示,就能開始做安全判斷。既然如此,為什麼還要另外找一個...

鐵人賽 AI Engineering DAY 8

技術 [Day 24]:當 Agent 不只回答、還會執行動作:Guardrails 該從 Content 走到 Action

當客服能直接建立申請、修改訂單或執行退款,Guardrails 就需要回答:這個 Agent 在這次任務中,被允許把流程推進到哪裡? 一段回覆可以沒有髒話、沒有...